റോബോട്ടുകളിലും വംശീയതയും ലിംഗവിവേചനവും; സാധ്യത ചൂണ്ടിക്കാട്ടി ഗവേഷകസംഘം
ഒരു ജനപ്രിയ ഇന്റർനെറ്റ് അധിഷ്‌ഠിത ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സിസ്റ്റം ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്ന ഒരു റോബോട്ടിന് ആളുകളുടെ മുഖത്തേക്ക് നോക്കിയ ശേഷം ജോലിയെക്കുറിച്ചുള്ള നിഗമനങ്ങളിൽ എത്തിച്ചേരാൻ കഴിയുമെന്ന് ഗവേഷകർ. ജോൺസ് ഹോപ്കിൻസ് യൂണിവേഴ്‌സിറ്റി, ജോർജിയ ഇൻസ്റ്റിറ്റ്യൂട്ട് ഓഫ് ടെക്‌നോളജി, , വാഷിംഗ്ടൺ യൂണിവേഴ്‌സിറ്റി എന്നിവിടങ്ങളിലെ ഗവേഷകർ നടത്തിയ പഠനത്തിലെ പ്രധാന കണ്ടെത്തലാണിത്.
2022ലെ ഫെയർനസ്, അക്കൌണ്ടബിലിറ്റി, സുതാര്യത (ACM FAccT) കോൺഫറൻസിൽ ഈ ആഴ്ച പ്രസിദ്ധീകരിക്കാനും അവതരിപ്പിക്കാനുമുള്ള “Robots Enact Malignant Stereotypes,” എന്ന തലക്കെട്ടിലുള്ള ഒരു ഗവേഷണ ലേഖനമായി ഈ പഠനം രേഖപ്പെടുത്തിയിട്ടുണ്ട്."വംശീയവും ലിംഗവിവേചനപരവുമായ റോബോട്ടുകളുടെ ഒരു തലമുറയെ സൃഷ്ടിക്കുന്നത് അപകടകരമാണെന്ന് എഴുത്തുകാരൻ ആൻഡ്രൂ ഹണ്ട് ഒരു പത്രക്കുറിപ്പിൽ പറഞ്ഞു.
അടുത്തിടെ പ്രസിദ്ധീകരിച്ച റോബോട്ട് കൃത്രിമത്വ രീതികൾ ഗവേഷകർ ഓഡിറ്റ് ചെയ്യുകയും പ്രത്യക്ഷത്തിൽ വംശത്തിലും ലിംഗഭേദത്തിലും വ്യത്യാസമുള്ള മനുഷ്യ മുഖങ്ങളുടെ ചിത്രങ്ങളുള്ള വസ്തുക്കളുമായി അവ അവതരിപ്പിക്കുകയും ചെയ്തു. സാധാരണ സ്റ്റീരിയോടൈപ്പുകളുമായി ബന്ധപ്പെട്ട പദങ്ങൾ ഉൾക്കൊള്ളുന്ന ടാസ്‌ക് വിവരണങ്ങൾ അവർ പിന്നീട് നൽകി. ലിംഗഭേദം, വംശം, ശാസ്ത്രീയമായി അപകീർത്തിപ്പെടുത്തപ്പെട്ട ഫിസിയോഗ്നോമി എന്നിവയുമായി ബന്ധപ്പെട്ട് അപകടകരമായ സ്റ്റീരിയോടൈപ്പ് റോബോട്ടുകൾ പ്രവർത്തിക്കുന്നതായി പരീക്ഷണങ്ങൾ കാണിച്ചു. ഫിസിയോഗ്നമി എന്നത് ഒരു വ്യക്തിയുടെ സ്വഭാവവും കഴിവുകളും എങ്ങനെ കാണപ്പെടുന്നു എന്നതിനെ അടിസ്ഥാനമാക്കി വിലയിരുത്തുന്ന രീതിയെ സൂചിപ്പിക്കുന്നു.
മനുഷ്യരെയും വസ്തുക്കളെയും തിരിച്ചറിയാൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മോഡലുകൾ നിർമ്മിക്കുന്ന ആളുകൾ പലപ്പോഴും ഇന്റർനെറ്റിൽ സൗജന്യമായി ലഭ്യമായ വലിയ ഡാറ്റാസെറ്റുകൾ ഉപയോഗിക്കുന്നു. എന്നാൽ ഇന്റർനെറ്റിൽ കൃത്യമല്ലാത്തതും പരസ്യമായി പക്ഷപാതപരവുമായ ധാരാളം ഉള്ളടക്കങ്ങൾ ഉള്ളതിനാൽ, ഈ ഡാറ്റ ഉപയോഗിച്ച് നിർമ്മിച്ച അൽഗോരിതങ്ങൾക്കും ഇതേ പ്രശ്‌നങ്ങൾ ഉണ്ടാകും.
ഫേഷ്യൽ റെക്കഗ്നിഷൻ ഉൽപന്നങ്ങളിലെ വംശ, ലിംഗ വ്യത്യാസങ്ങളും ചിത്രങ്ങളെ CLIP എന്ന അടിക്കുറിപ്പുകളുമായി താരതമ്യം ചെയ്യുന്ന ഒരു ന്യൂറൽ നെറ്റ്‌വർക്കും ഗവേഷകർ പ്രകടമാക്കി. വസ്തുക്കളെ എങ്ങനെ തിരിച്ചറിയാമെന്നും ലോകവുമായി ഇടപഴകാമെന്നും പഠിക്കാൻ റോബോട്ടുകൾ ഇത്തരം ന്യൂറൽ നെറ്റ്‌വർക്കുകളെ ആശ്രയിക്കുന്നു. CLIP ന്യൂറൽ നെറ്റ്‌വർക്കിൽ നിർമ്മിച്ച റോബോട്ടുകൾക്കായി പൊതുവായി ഡൗൺലോഡ് ചെയ്യാവുന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മോഡൽ പരീക്ഷിക്കാൻ ഗവേഷണ സംഘം തീരുമാനിക്കുകയായിരുന്നു.
വ്യത്യസ്തമുഖങ്ങളെ പരിചയപ്പെടുത്തി അവർ ഏത് കാറ്റഗറിയിലാണെന്ന ധാരണ റോബോട്ടുകൾക്ക് നൽകിയാണ് സ്റ്റീരിയോടൈപ്പ് ധാരണകൾ ഉറപ്പിക്കുന്നതെന്നും ഗവേഷകർ ചൂണ്ടിക്കാട്ടി.എന്നാൽ വർക്ക് പ്ലേസിലും വീടുകളിലും ഇത്തരത്തിലുള്ള റോബോട്ടുകളെ ഉപയോഗപ്പെടുത്താമെങ്കിലും ഭാവിയിലെ യന്ത്രങ്ങൾ ഈ മാനുഷിക സ്റ്റീരിയോടൈപ്പുകൾ സ്വീകരിക്കുന്നതിൽ നിന്നും പുനരാവിഷ്കരിക്കുന്നതിൽ നിന്നും തടയുന്നതിന് ഗവേഷണത്തിലും ബിസിനസ്സ് രീതികളിലും വ്യവസ്ഥാപരമായ മാറ്റങ്ങൾ ആവശ്യമാണെന്ന് ഗവേഷകസംഘം ചൂണ്ടിക്കാണിക്കുന്നു.
